섀넌 (단위)
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.
1. 개요
섀넌(Shannon, Sh)은 정보 이론에서 사용되는 정보량의 단위이다. 1 섀넌은 약 0.693 내트(nat) 또는 약 0.301 하틀리(Hart)와 같다. 섀넌은 채널 용량, 엔트로피, 상호 정보량, 미분 엔트로피 등 정보량과 관련된 다양한 척도를 나타내는 데 사용될 수 있다.
더 읽어볼만한 페이지
- 정보 이론 - 양자 컴퓨터
양자 컴퓨터는 양자역학적 현상을 이용하여 정보를 처리하는 컴퓨터로, 큐비트를 통해 0과 1을 동시에 표현하여 특정 연산에서 기존 컴퓨터보다 빠른 속도를 보이며 암호 해독, 신약 개발 등 다양한 분야에 혁신을 가져올 것으로 기대된다. - 정보 이론 - 정보 엔트로피
정보 엔트로피는 확률 변수의 불확실성을 측정하는 방법으로, 사건 발생 가능성이 낮을수록 정보량이 커진다는 원리에 기반하며, 데이터 압축, 생물다양성 측정, 암호화 등 다양한 분야에서 활용된다. - 통계학 - 확률
확률은 사건의 가능성을 수치화한 개념으로, 도박에서 시작되어 수학적으로 발전했으며, 다양한 해석과 요소, 응용 분야를 가지며 양자역학, 사회 현상 등에도 적용된다. - 통계학 - 사분위수
사분위수는 정렬된 데이터를 4등분하는 세 개의 값으로 데이터 분포 요약 및 이상치 탐지에 활용되며, 제1사분위수(Q₁)는 하위 25%, 제2사분위수(Q₂ 또는 중앙값)는 하위 50%, 제3사분위수(Q₃)는 하위 75%를 나타낸다.
| 섀넌 (단위) | |
|---|---|
| 정보 단위 | |
| 종류 | 정보량의 단위 |
| 기호 | Sh |
| 명명 유래 | 클로드 E. 섀넌 |
| 설명 | 정보 이론에서 정보량을 측정하는 단위 |
| 값 | |
| 정의 | 불확실성이 2배가 될 때마다 1 샤논씩 증가 |
| 다른 단위와의 관계 | 1 Sh ≈ 3.3219 비트 1 Sh ≈ 1.4427 nat 1 Sh = log₂ 10 하틀리 |
| 참고 사항 | |
| 사용 | SI 단위계에서는 비트 대신 샤논을 정보 단위로 사용할 것을 권장 |
2. 유사 단위
섀넌은 비례 상수를 통해 두 개의 다른 정보 단위와 연결된다.
1 Sh ≈ 0.693 nat ≈ 0.301 Hart이다.
2. 1. 하틀리 (Hartley)
랠프 하틀리의 이름을 따서 명명된 ''hartley''는 통신 채널의 용량에 관심이 있었던 전자 엔지니어였다. 섀넌의 연구보다 앞선 그의 초기 연구는 비록 제한적이긴 하지만 그를 정보 이론의 선구자로 인정받게 했다. 섀넌이 이진 기호의 최대 가능한 정보 용량을 설명하는 것과 마찬가지로, 하틀리는 각 값의 ''a priori'' 확률이 1|10영어일 때 0에서 9 범위의 숫자 값인 10진 기호에 포함될 수 있는 정보를 설명한다. 변환 계수는 log10(2)로 주어진다.1 Sh ≈ 0.301 Hart이다.
2. 2. 내트 (Nat)
nat|냇영어은 정보의 자연스러운 단위이지만, 1 nat|냇영어는 섀넌 및 하틀리와 달리 모든 가능성이 동일한 확률을 갖는 경우에 해당하지 않는다. 각 경우에서 정보 용량 또는 엔트로피의 정량화 공식은 확률과 관련된 표현의 로그를 취하는 것을 포함한다. 밑이 2인 로그를 사용하면 결과는 섀넌 단위로 표시되고, 밑이 10 (상용 로그)이면 결과는 하틀리 단위로 표시되며, 자연로그 (밑 e)이면 결과는 nat|냇영어 단위로 표시된다. 예를 들어 16비트 시퀀스의 정보 용량(65536개의 모든 가능한 시퀀스가 동일한 확률을 가질 때 달성됨)은 log(65536)으로 주어지며, 이는 약 4.82 하틀리, 약 11.09 nat|냇영어, 또는 16 섀넌이다.3. 정보 척도
정보 이론 및 부호화 이론과 같은 관련 분야에서 단일 메시지(기호 시퀀스)의 '정보'는 맥락 없이는 정량화할 수 없으며, 채널 모델(예: 비트 오류율) 또는 정보 소스의 기본 통계를 참조해야 한다. 따라서 정보와 관련된 다양한 척도가 있으며, 이 모든 척도는 섀넌을 단위로 사용할 수 있다.
예를 들어, 16비트 채널은 16 Sh의 채널 용량을 가질 수 있다. 8개의 가능한 메시지 중 하나만 보내는 특정 정보 소스에 연결되면 해당 출력의 엔트로피는 3 Sh를 넘지 않는다. 측면 채널을 통해 메시지가 4개의 가능한 메시지 집합 중 어느 집합에 있는지 이미 알고 있다면, 새로운 메시지(8개의 가능한 상태)의 상호 정보량은 2 Sh를 넘지 않는다. 0과 1 사이에서 선택된 실수에 무한한 가능성이 있지만, 미분 엔트로피는 신호 대 잡음비 향상 또는 가설 검정의 신뢰성과 관련된 아날로그 신호의 정보 내용을 정량화하는 데 사용된다.
3. 1. 채널 용량
정보 이론 및 부호화 이론과 같은 파생 분야에서 단일 메시지(기호 시퀀스)의 '정보'는 맥락 없이 정량화할 수 없으며, 채널 모델(예: 비트 오류율) 또는 정보 소스의 기본 통계를 참조해야 한다. 따라서 정보와 관련된 다양한 척도가 있으며, 이 모든 척도는 섀넌을 단위로 사용할 수 있다.예를 들어 위에서 언급한 16비트 채널은 16 Sh의 채널 용량을 가진다고 할 수 있지만, 8개의 가능한 메시지 중 하나만 보내는 특정 정보 소스에 연결되면 해당 출력의 엔트로피는 3 Sh를 넘지 않도록 계산할 수 있다. 그리고 측면 채널을 통해 메시지가 4개의 가능한 메시지 집합 중 어느 집합에 있는지 이미 알고 있다면, 새로운 메시지(8개의 가능한 상태)의 상호 정보량을 2 Sh를 넘지 않도록 계산할 수 있다. 0과 1 사이에서 선택된 실수에 무한한 가능성이 있지만, 소위 미분 엔트로피는 신호 대 잡음비 향상 또는 가설 검정의 신뢰성과 관련된 아날로그 신호의 정보 내용을 정량화하는 데 사용될 수 있다.
3. 2. 엔트로피 (정보 이론)
정보 이론 및 부호화 이론과 같은 파생 분야에서 단일 메시지(기호 시퀀스)의 '정보'는 맥락 없이 정량화할 수 없으며, 채널 모델(예: 비트 오류율) 또는 정보 소스의 기본 통계를 참조해야 한다. 따라서 정보와 관련된 다양한 척도가 있으며, 이 모든 척도는 섀넌을 단위로 사용할 수 있다.예를 들어 위에서 언급한 16비트 채널은 16 Sh의 채널 용량을 가진다고 할 수 있지만, 8개의 가능한 메시지 중 하나만 보내는 특정 정보 소스에 연결되면 해당 출력의 엔트로피는 3 Sh를 넘지 않도록 계산할 수 있다. 그리고 측면 채널을 통해 메시지가 4개의 가능한 메시지 집합 중 어느 집합에 있는지 이미 알고 있다면, 새로운 메시지(8개의 가능한 상태)의 상호 정보량을 2 Sh를 넘지 않도록 계산할 수 있다. 0과 1 사이에서 선택된 실수에 무한한 가능성이 있지만, 소위 미분 엔트로피는 신호 대 잡음비 향상 또는 가설 검정의 신뢰성과 관련된 아날로그 신호의 정보 내용을 정량화하는 데 사용될 수 있다.
3. 3. 상호 정보량
정보 이론 및 부호화 이론 등 관련 분야에서 단일 메시지(기호 시퀀스)의 '정보'는 맥락 없이는 정량화할 수 없으며, 채널 모델(예: 비트 오류율)이나 정보 소스의 기본 통계를 참조해야 한다. 따라서 정보와 관련된 다양한 척도가 있으며, 이 모든 척도는 섀넌을 단위로 사용할 수 있다.만약 측면 채널을 통해 메시지가 4개의 가능한 메시지 집합 중 어느 집합에 있는지 이미 알고 있다면, 새로운 메시지(8개의 가능한 상태)의 상호 정보량은 2 Sh를 넘지 않도록 계산할 수 있다.
3. 4. 미분 엔트로피
정보 이론 및 부호화 이론과 같은 파생 분야에서 단일 메시지(기호 시퀀스)의 '정보'는 맥락 없이는 정량화할 수 없으며, 채널 모델(예: 비트 오류율) 또는 정보 소스의 기본 통계를 참조해야 한다. 0과 1 사이에서 선택된 실수에는 무한한 가능성이 있지만, 미분 엔트로피는 신호 대 잡음비 향상 또는 가설 검정의 신뢰성과 관련된 아날로그 신호의 정보 내용을 정량화하는 데 사용될 수 있다.참조
[1]
웹사이트
IEC 80000-13:2008
http://www.iso.org/i[...]
국제표준화기구
2013-07-21
[2]
웹사이트
"shannon", ''A Dictionary of Units of Measurement''
https://www.unc.edu/[...]
[3]
웹인용
IEC 80000-13:2008
http://www.iso.org/i[...]
ISO|International Organization for Standardization
2013-07-21
[4]
웹인용
"shannon", ''A Dictionary of Units of Measurement''
https://web.archive.[...]
2017-08-18
[5]
웹인용
"bit", ''A Dictionary of Units of Measurement''
https://web.archive.[...]
2017-08-18
본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.
문의하기 : help@durumis.com